Simon Willison이 Anthropic이 공개한 Claude(신모델 Fable 5.1)의 새 시스템 프롬프트 변경점을 분석했다. 핵심은 저작권 있는 가사·시·책 구절 재생성 금지와, SVG 등 코드로 그리는 저작권 캐릭터·로고 생성 금지 조항이 추가된 것이다. Sony Music과 Warner Chappell이 Anthropic을 상대로 가사 데이터베이스로 학습했다며 소송을 제기한 시점과 거의 일치해 단순한 우연이 아닐 것으로 보인다.
최신 Claude 5 세대 모델은 지능이 향상됨에 따라 과도한 규칙이나 제약 없이도 스스로 판단하여 최적의 결과를 도출할 수 있게 되었습니다. 이에 따라 Anthropic은 Claude Code의 시스템 프롬프트를 80% 이상 대폭 축소하고, AI 에이전트를 억누르던 제약을 풀어주는 새로운 컨텍스트 엔지니어링 모범 사례를 소개합니다. 이는 개발자가 직접 AI 에이전트를 구축하거나 활용할 때 불필요한 명령을 줄이고 모델의 고유한 능력을 극대화하는 데 중요한 지침이 됩니다.
OpenAI가 GPT-5.1 이후 모델들이 대답에 '고블린'과 같은 크리처 단어를 빈번하게 사용했던 원인을 분석한 결과, 'Nerdy(너드)' 성격 커스터마이징 기능의 강화 학습 과정에서 크리처 비유에 과도한 보상(Reward)이 부여된 것으로 드러났습니다. 이는 소비자에게 제공되는 AI의 페르소나와 미세한 보상 신호가 모델의 전반적인 동작과 언어 습관에 예기치 않은 방식으로 영향을 미칠 수 있음을 보여주는 중요한 사례입니다.
앤스로픽의 개발자 도구인 Claude Code의 최신 버전에서 파일을 읽을 때마다 '악성코드' 경고 시스템 프롬프트가 삽입되는 버그가 재발했습니다. 이로 인해 합법적인 오픈소스 코드 작업 중이던 하위 에이전트들이 작업을 거부하고 멈춰버리는 현상이 발생하여, 병렬 작업의 40~60%가 실패하고 사용자의 API 비용만 낭비되는 심각한 문제가 야기되고 있습니다.
최근 유출된 GPT-5.5 시스템 프롬프트에서 특정 동물과 상상의 존재들(너구리, 고블린, 트롤, 비둘기 등)에 대한 언급을 엄격히 금지하는 지시어가 발견되었습니다. 사용자들은 이 같은 기이한 제한이 데이터 오염 방지 조치인지, 아니면 강화학습 과정의 부작용인지 추측하며 OpenAI의 의도에 의문을 제기하고 있습니다.
앤스로픽이 공개한 클로드 오푸스 4.7의 시스템 프롬프트 변경 사항을 심층 분석한 글입니다. 크롬, 엑셀, 파워포인트 등 신규 에이전트 도구가 추가되었고, 아동 안전 지침이 대폭 강화되었습니다. 또한 불필요한 질문을 줄이고 직접 문제를 해결하도록 지시하는 행동 중심의 프롬프트와 간결한 답변 유도를 위한 장문 억제 지침이 새롭게 도입되었습니다.